Small Language Models as Judges for Rubric-Based Reinforcement Learning
小语言模型作为基于量规的强化学习评判器
🧭 高效奖励模型与 RL 训练
New York University · Yale University
1.7B Probe 评委替代大模型生成式评委做逐条量规打分，RL 训练效果更优且奖励判断快 10.7 倍
📌 工作参考价值（4 点）
- 在需要逐条 rubric 打分的 RL 训练中，用冻结小模型 backbone + 线性 probe 头输出每条标准满足概率，替代生成式 LLM judge，可将奖励计算延迟降低一个数量级，适合需要高吞吐在线奖励信号的 Agent 训练与推荐文案优化。
- 对电商多维度评价（如相关性、覆盖度、转化意图）可分别训练多个 probe 头，共享同一小模型编码器，把 instance-specific criteria 转化为隐藏状态上的线性分类问题，避免逐 token 生成，工程实现简单且稳定。
- 当奖励标准明确且 itemwise 标签可标注时，小模型 probe 评委能保留标准级奖励结构，跨任务/领域迁移良好，可用于搜索推荐系统的多属性质量控制，无需为每个新场景重新训练大模型评委。
- 若当前使用 7B+ 生成式奖励模型，可尝试用 1-2B 小模型 probe 替代，在效果不降甚至更优的情况下大幅降低 API 成本与训练时间。